Beyond Positive Signals: Unlocking Implicit Negative Behaviors for Enhanced Sequential User Modeling
超越正信号:释放隐式负向行为以增强序列用户建模
🧭 隐式负反馈融入行为序列建模 ★ 深度解读
Tencent Inc.
在CTR行为序列中按时间交错正负行为,用极轻量的极性感知校准即可让多种架构一致提升1.9%–9.6% AUC
📌 工作参考价值(4 点)
- 序列构建零成本升级:将用户曝光但未点击/快速划过/低完播的隐式负向行为直接作为普通token,与正向行为按时间戳交错,保持序列长度不变,推理成本零增加,即可在现有模型上获得明显收益。适用于广告、电商、信息流等场景。
- 极性编码即可获得大部分增益:最简单的极性偏置嵌入(PBE)已能解锁混合序列的主要价值,只需为每条行为增加一个可学习的极性embedding,适合快速上线验证。
- TAPF作为轻量级增强:若资源允许,可进一步使用目标感知极性融合(TAPF),通过在注意力前增加目标相关的门控残差,重平衡正负token的注意力分配(如从75%:25%调整到59%:41%),带来额外0.3%–0.8% AUC提升,且仅增加线性层和元素级运算,对在线时延影响小。
- 数据质量管理:负向行为必须是真实且近期的,随机采样或错误极性标签会严重退化效果;建议按实效性排序采样,避免远历史负信号。在低活跃用户或冷启动商品上,混合序列的增益更大,可重点在此类群体应用。